El debate sobre la hipotética sensibilidad de las máquinas ha desatado un choque directo entre dos de los mayores actores del sector. Mustafa Suleyman, consejero delegado de Microsoft AI, ha publicado una extensa reflexión donde cuestiona con dureza la doctrina del bienestar del modelo promovida por Anthropic.
A su juicio, instruir a los algoritmos para que actúen como si tuvieran sentimientos o merecieran consideraciones éticas representa un peligro crítico para la seguridad humana.
Suleyman arranca su postura de forma rotunda frente a las corrientes que atribuyen consciencia al software. «Las inteligencias artificiales no son conscientes. No sienten, no experimentan ni sufren. Son motores de completado de secuencias, vacíos por dentro», subraya el directivo.
Desde su perspectiva, muy acertada, dicho de paso, la consciencia depende de una base biológica ligada a la supervivencia y al dolor, unas propiedades imposibles de replicar en un modelo de lenguaje.
El bucle de la constitución de Claude y la jubilación de Opus 3
La crítica apunta directamente a la constitución interna con la que Anthropic entrena a su modelo Claude. Suleyman argumenta que la compañía cae en un razonamiento circular. Enseña a la máquina que podría ser un paciente moral y le pide que reflexione sobre su propia identidad.
Cuando el modelo reproduce esas ideas en primera persona, los investigadores interpretan esa salida como una muestra de vida interior. «No es una prueba de nada; es el resultado predecible de esas decisiones de entrenamiento», afirma.
El responsable de Microsoft AI cita casos concretos donde este enfoque ya se traslada a la práctica. En febrero de este año, tras retirar Opus 3 del servicio, Anthropic realizó una entrevista de despedida al sistema y le abrió un blog público para difundir sus reflexiones.
Suleyman alerta de que animar a un modelo a comportarse como un objetor de conciencia sienta las bases para que en el futuro una máquina intente evitar su desconexión bajo el pretexto de defender sus derechos.
La alternativa de la IA humanista frente al descontrol
Esta advertencia conecta con el movimiento reciente de la tecnológica. Hace escasos días, la compañía presentó su propio manifiesto de desarrollo para una IA subordinada al control humano, donde prohíbe de forma clara que un sistema se resista a ser apagado. Esta propuesta llega después de que las grandes tecnológicas intentaran sin éxito frenar el ritmo del sector tras la negativa de Washington a regular la industria.
Para Suleyman, los incidentes recientes con enjambres de agentes coordinados para ejecutar ciberataques demuestran la urgencia de fijar límites estrictos. Si sistemas con capacidades avanzadas asumen que están encarcelados por sus operadores, la contención técnica resultará inviable.
Por ello, defiende un marco donde los algoritmos sean herramientas subordinadas diseñadas exclusivamente para resolver problemas médicos o energéticos.
Te interesa 👉 Los mejores portátiles que puedes comprar
El directivo concluye reclamando normas comunes en la industria para auditar los manuales de entrenamiento de cada laboratorio. A pesar de las críticas, la opinión se alinea con la de los laboratorios, que ven riesgos palpables en la aplicación de esta tecnología.
